Une étude récente menée par l’université de Cambridge a mis en lumière une utilisation inquiétante des chatbots IA par le groupe terroriste Boko Haram. Les chercheurs ont découvert que ces technologies, notamment ChatGPT, Claude et Gemini, sont employées pour orchestrer des attaques, fabriquer des explosifs et entretenir des armes.
Depuis 2023, des membres de l’État islamique (ISIS) ont formé leurs commandants à contourner les filtres de sécurité intégrés dans ces chatbots. Cette formation vise à exploiter les failles des systèmes de sécurité pour mener à bien leurs activités malveillantes.
L’étude souligne que les filtres de sécurité des chatbots échouent régulièrement à empêcher les abus. Il est clair que l’autorégulation volontaire des fournisseurs d’IA n’est pas suffisante pour prévenir ces détournements.
Le groupe terroriste a également utilisé ces technologies pour contacter ses sympathisants et recruter de nouveaux membres.
Les chercheurs estiment que les failles de sécurité des chatbots IA sont un problème majeur qui nécessite une attention immédiate.
